Ingenieros de Microsoft han alertado sobre los riesgos de que sus generadores de imágenes de IA produzcan imágenes ofensivas y dañinas. Los ingenieros han enviado cartas a los reguladores estadounidenses y a la junta directiva para instar a que se aborden las preocupaciones de seguridad del producto. La controversia se centra en la herramienta Designer, que puede generar imágenes con contenido dañino. Se hace eco de los riesgos planteados por el modelo DALL-E de OpenAI, instando a abordar las preocupaciones de seguridad.

Un nuevo informe revela que miles de imágenes de abuso sexual infantil se encuentran en la base de datos de generadores de imágenes de Inteligencia Artificial, instando a las empresas a tomar medidas para solucionar las fallas tecnológicas. Estas imágenes facilitan la creación de imágenes falsas realistas de menores y la transformación de fotos de adolescentes completamente vestidos en redes sociales en imágenes de desnudos. El problema no tiene una solución sencilla y requiere que las empresas actúen para abordar las vulnerabilidades tecnológicas.

Según un informe de FortuneBusinessInsights, se prevé que el mercado mundial de generadores de imágenes con IA supere los 900 millones de dólares en 2030, con una tasa compuesta anual de crecimiento del 17,4%. Los generadores de imágenes con IA tienen una amplia gama de aplicaciones, incluyendo la creación de arte digital e ilustraciones, así como la producción de elementos visuales para materiales de marketing. El sector empresarial domina el mercado debido a la automatización de tareas y la optimización de procesos.